Il y a de plus en plus d'abus dans la synthèse de la voix et de l'image par l'IA. Par exemple, cette semaine, les voix des champions olympiques Quan Hongchan, Wang Chuqin et d'autres ont été clonées par l'IA et ont vendu les soi-disant "œufs locaux". De nombreux acteurs de la voix se sont également manifestés pour protéger leurs droits parce que les voix sur lesquelles ils s'appuient pour la survie peuvent désormais être copiées par l'IA en un seul clic et utilisées à volonté.
Cela nous rend de plus en plus inquiets. Lorsque nos voix et nos visages atteignent le point où ils sont si facilement détournés, comment devons-nous maintenir la confiance entre les gens? La vitesse de développement de l'IA devient de plus en plus rapide. Comment devrions-nous utiliser la supervision et la législation pour maintenir les résultats? News Weekly se concentre sur cette semaine: comment guérir les abus de l'intelligence artificielle?
Abus des technologies synthétiques telles que l'échange de visages d'IA et le clonage sonore
Que "les oreilles entendent et voient" ne pas nécessairement être vrai
Ceci est la voix originale de l'acteur de la voix Sun Chenming, et ce segment est une œuvre de doublage générée par un compte auto-média clonage sa voix via l'IA. S'il n'y a pas d'invite, qui peut faire la différence? C'est également récemment que Sun Chenming a également découvert qu'une entreprise immobilière a également cloné ses travaux de doublage sans autorisation et l'a utilisé dans la vidéo promotionnelle d'entreprise de la société.
Le son est cloné par l'IA et utilisé dans divers scénarios commerciaux, qui n'est plus nouveau à Sun Chenming et à ses collègues. Quelqu'un a envoyé Sun Chenming les lois du code civil, le droit de voix est le droit de portrait, et c'est un droit inviolable aux citoyens. Par conséquent, de nombreux acteurs de la voix se sont spontanément allés à la section des commentaires de la vidéo promotionnelle d'entreprise pour quitter un message collectif. Sous pression, la société immobilière a payé Sun Chenming les frais de droit d'auteur.
Cette semaine, notre station a également exposé un cas d'utilisation de la technologie de l'IA pour contrefaire le champion olympique Quan Hongchan pour la vente de marchandises. Cette technologie de contrefaçon d'IA a fait souffrir de nombreuses célébrités. Une annonce de la plate-forme WeChat en janvier de cette année a montré que dans un mois, 12 000 contenus utilisant l'IA pour usurper l'identité de célébrités pour l'épissage illégal, la commercialisation incorrecte et l'acquisition de trafic malveillant ont été traités et 3 281 comptes connexes ont été fermés.
Récemment, le tribunal Internet de Pékin a également conclu une affaire dans laquelle le défendeur a utilisé le portrait de Mme Li, un professeur d'université, pour promouvoir des livres sans autorisation. En fin de compte, la Cour a statué que le comportement portait sur les droits des portraits de Mme Li et les droits vocaux.
Yan Jun, président de la troisième division complète du procès du tribunal Internet de Pékin (t...
[Courte citation de 8% de l'article original]